Rok 2026 będzie rokiem sztucznej inteligencji opartej na agentach, ale pytanie brzmi: czy możemy zaufać agentom AI w podejmowaniu decyzji za nas?
Podczas tegorocznej konferencji HiPEAC 2026, dr Marek S. Tatara podjął ten palący temat, analizując fundamenty, na których musimy budować systemy AI, aby stały się one naprawdę niezawodne i godne zaufania.
Projektowanie z myślą o zaufaniu
Według dr. Tatary, zaufanie do agentów AI nie jest kwestią przypadku, lecz wynikiem precyzyjnego procesu projektowego. Aby algorytmy mogły decydować za nas, systemy te muszą charakteryzować się:
Transparentnością procesów decyzyjnych.
Niezawodnością w dynamicznie zmieniających się warunkach.
Etycznym podejściem już na etapie architektury oprogramowania.
Współpraca dla innowacji: AIMS5.0
Dr Marek S. Tatara reprezentował na konferencji prestiżowy projekt AIMS5.0. Wystąpienie było efektem współpracy z Thomasem Guttem z Infineon Technologies, co podkreśla silne połączenie świata nauki z gigantami technologicznymi w dążeniu do stworzenia standardów bezpiecznej sztucznej inteligencji.
Wspólne działania w ramach projektu AIMS5.0 mają na celu wypracowanie rozwiązań, które pozwolą nam nie tylko korzystać z AI, ale przede wszystkim w pełni jej zaufać w krytycznych momentach.
